ScoreGate: Adaptive Chunk Selection for Retrieval-Augmented Generation via Dual-Score Statistical Fusion
ScoreGate: 双分数统计融合的自适应块选择
🧭 RAG 自适应检索块选择 ★ 深度解读
HighLevel, Inc.
利用 bi-encoder 和 cross-encoder 双分数四分区自适应决定 RAG 块数量，无额外推理开销
📌 工作参考价值（4 点）
- 在电商 RAG 场景（客服问答、商品推荐解释）中可直接复用：利用已有的 bi-encoder 和 cross-encoder 输出分数，按四分区规则自动决定传给 LLM 的上下文块数量，降低无关信息干扰和 token 开销。
- 借鉴不对称阈值设计：对 cross-encoder 高、bi-encoder 低的分区（如不同术语但高度相关的商品描述）采用更低保留阈值，可显著提升词汇不匹配场景的召回，减少 LLM 过滤器造成的假阴性。
- 阈值可通过生产日志一次性校准（归一化分位点+网格搜索），无需模型重训练，计算增加仅 31 ms，适合实时在线服务。
- 固定 MAX-K 护盾机制防止上下文窗口溢出，可结合业务设置上限，避免极端安全风险。